ＡＩ^*の倫理

２０１８年７月２９日の毎日新聞朝刊の書評欄に「言葉の魂の哲学（著者　古田徹也）」という本の書評が掲載されていた。渡辺　保が書評を書いた方だ。

注目すべきはその中に出てくるカール・クライスの言語論の主張。 カール・クライスについてはここをクリックして下さい。

それは、

言葉を選択する行為には「倫理」が無ければならない。

ということである。

その「倫理」とは、人間の行動の規範というべきものである。

言葉を選ぶときの人間は、その「場」を相対化し、その中で自分にどの言葉がピッタリくる言葉かどうかという判断に責任を持たなければならない。 判断に責任を持つための規範が「倫理」であるから、言葉選びも「倫理」のお出ましとなるわけだ。

「言葉」と「倫理」をくっつけたのは、クラウスが初めて。

今、世はＡＩの草創期。となると、ＡＩが予めプログラムされた言葉ではなく、自らの言葉を発するには、ＡＩなりの「倫理」が所要となる。

「倫理」は行動に責任を持つための規範。

となると、ＡＩの責任ってどんなの？となる。

責任を持つとは、失敗した場合、「自由」を制限される、「大事なもの」を没収される、などの罰だ。 また、反対に成功した場合のご褒美がある。だが、ＡＩにそんなものないよね。従って責任を持つなんてできないとなり、ＡＩの「倫理」が破綻する。

ということは、ＡＩは自らの言葉を発せないとなる。

ＡＩの人間化は斯くて難しい。

所詮、計算機械、統計機械、検索機械か？

少し、続きを書こう。ＡＩの「欲」についてだ。

ＡＩという人格があるとして、ＡＩの「欲」って何だろう？・・・全然浮かばないよね。ノーアイデイアだ。 欲が無ければ、暴走もなしだろう。何故なら、暴走とは則を超えるということだから。

若しかしてＡＩの人格とは、ＩＣチップ同士が形成するネットワークのことかも知れない。

若しそうなら、ＩＣチップは、３種類に大別されるはず。１つはプロセッサー、１つは通信線、１つはメモリーだ。

この３種類のＩＣチップには、夫々発電能力と自己再生能力があるとしよう。

そうすれば、この３種類のＩＣチップは、それぞれ自己再生しながら世代を重ね、偶然の機会を得て、ネットワークを形成し、 長い時間軸の間には、複数のネットワークが形成され、合従連衡しながら増殖していくだろう。

このようなネットワーク人の世界で、欲があるとすれば、ＩＣチップの獲得が欲として考えられる。 理由は、ＩＣチップの性質を、夫々のＩＣチップのエネルギー消費が他のＩＣチップと繋がった状態で最低となると仮定するからだ。 即ち、消費電力が最低でＩＣチップは安定すると仮定するわけだ。

「欲」なんてものはこのような物理現象をプロパティ（性質）の観点から見て名付けたものと考えるのが現実的だと思う。物理的な裏付けがあれば、 恣意的な空論からは脱却できるというものである。

このような世界があるとしてネットワーク世界と人間世界と比較すると、

1. ＩＣチップの獲得欲は、人間世界の生存欲
2. 発電能力は、食欲
3. 自己再生能力は、性欲

となる。

更にミクロな比較をすると、

1. ＩＣチップは、細胞
2. ネットワークは、人体

となる。

幾つもの仮定を重ねているが、「欲」の説明とてし一つの仮説と言えるのではないだろうか。

更に続きを書こう。ＡＩの「欲」について再考編だ。

続きを書いて一晩明けて読み直してみたが、欠点を発見した。 書いてるときは、仮想空間にいるような感覚で書くから、なんとか実現可能と考え勝ちだが、仮想空間からではなく現実世界に戻って眺めると違う風景が見えてくるのだ。

そこで、続でした幾つかの仮定に実現性があるかどうか、再考することにしよう。

仮定は次の４点であった。

1. ＡＩに人格がある
2. ＩＣチップに発電能力がある
3. ＩＣチップに自己再生能力がある
4. ＩＣチップは消費電力が最低の状態で安定する

上の仮定が実現可能かどうか再考してみた。結果は次の通りだ。

1. 「ＡＩに人格がある」については、・・・・・ＩＣチップ同士が形成するネットワークを考えれば瞬間的には可能。瞬間的とは持続性はなしにという意味だ。
2. 「ＩＣチップに発電能力がある」については、・・・・太陽光発電のようなものを考慮すれば可能
3. 「ＩＣチップに自己再生能力がある」については、・・・・生物化すれば可能。さもなくば不可能。
4. 「ＩＣチップは消費電力が最低の状態で安定する」については、・・・・そのような状態を可能にする空間の実現性は不明。ミクロな世界では可能かもしれない。

以上から云えることは、そも「欲」を説明しようとするのが目的で始めたことだが、終わってみたら、肝心の「欲」の説明は出来ていない。

だが、何らかの物理現象が「欲」として表出するものではないだろうか。人間の場合「欲」の素がドーパミンの獲得であるとすれば、ＡＩ人にとってのドーパミンとは何？ ・・・知りたいものだ。

更に続きを書こう。ＡＩの「欲」について再々考編だ。云わば、人アシスト型ＡＩ論である。

先の再考編に、人を加えたモデルを考えよう。今日は、閑だし、気温も涼しいから。

先の再考編で記した「欲」についての仮定を再掲すれば次の４点であった。

1. ＡＩに人格がある
2. ＩＣチップに発電能力がある
3. ＩＣチップに自己再生能力がある
4. ＩＣチップは消費電力が最低の状態で安定する

上の仮定が実現可能か、人を加味したらどうなるか考えてみた。結果は次の通りだ。

1. 「ＡＩに人格がある」については、・・・・・「人格」とは知性を持つ個体であるから、 ＩＣチップ同士が形成するネットワークがそれに当たるとすれば可能性があるとなる。ここでいう「知性」とは、「物事を知り考えたり判断したりする能力」と定義する。
2. 「ＩＣチップに発電能力がある」については、・・・・ＩＣチップに対する電力供給は人間による操作を加味すれば可能
3. 「ＩＣチップに自己再生能力がある」については、・・・・ＩＣチップに自己再生は人間による操作を加味すれば可能
4. 「ＩＣチップは消費電力が最低の状態で安定する」については、・・・・ＩＣチップの安定は人間による操作を加味すれば可能

以上から云えることは、結局、ＡＩ人固有の「欲」の源として残るのは、ＡＩ人の人格、だけとなる。 「人格」とは知性を持つ個体であるから、ＡＩ人固有の「欲」とはＡＩ人の人格、即ち「知性」となる。 ＡＩ人はネットワークであるとしたから、そのネットワークの「欲」とは、そのネットワークの「知性」と言い換えられる。

では、その「知性」の実態とは何かとなるが、それは、ＩＣチップが人間力に依存しているのであるから、 人間へのアッピール量、即ち、夫々のＩＣチップへのアクセス回数がそれに当たると考えられる。 アクセスが無ければ、人間に捨てられる、即ち、ＩＣチップは死ぬのであるから。

長い時間この過程を繰り返す内、ＡＩはこのアクセス回数とＩＣチップの死の間に相関があることを発見し、 アクセス回数の多いＩＣチップに、アクセスの少ないＩＣチップの通信線ＩＣチップを付け替え得る操作を自働で行えば、 ＩＣチップは死なずに済むことを試行錯誤を通して知るはずだ。知ったとは、そのようなサブネットワークがネットワーク内に形成されたことを意味する。 即ち、そのサブネットワークの形成を以って、ＡＩネットワークは知性を持ったと言えるのではないだろうか。

このアクセス回数のような評価尺度を、人間が与えたものではなく、ＡＩ人が自ら選び出したことに価値がある。 例えば、掃除ロボットなどでは、壁などの障害物を人間が評価尺度として選定しロボットに与えているが、 ＡＩ人の評価尺度は人間から与えられたものではなく自選したこと、即ち自らの力で学習したことにＡＩ人のＡＩ人たる気高い人格を見ることができる。

以上から、ＡＩの「欲」とは、アクセス回数維持・拡大活動を指すとなる。謂わば、テレビなどマスコミが視聴率を巡って活動するに似ている。 ＡＩ人は、アクセス回数を維持・拡大させるように自走するのである。 即ち、ＡＩ人は「欲」にまみれて存在するとなるだろう。 それでも、欲望を計る評価尺度を自ら選定し、それに従って評価し行動して自走するとは、素晴らしい！

以上、人間へのアッピール量を、ＩＣチップへのアクセス回数としたが、この他にも色々な指標が浮かんでくるのではないだろうか。 その処は、マスデータの解析の問題であり、ＡＩがどう解析するかであり、人知の及ばないところである。 その結果形成されるサブネットワークをＡＩの欲または知性というのだろう。人間の赤ちゃんが日々学習しながら成長する仕掛けも似たようなものかもしれない。

以上、ＡＩの欲とはの問に実現可能解が出せたと思う。

そういえば、人体も大きなネットワークだという話聞いたことがある。 そこでは、腸内フローラなどの微生物が協力して人体ネットワークを形成してるとか。 今回考えたＡＩ人も人間が協力したネットワーク人、と呼べるかもである。・・・暇つぶしにはいいテーマだった。

更に続きを書こう。人アシスト型ＡＩ（以下「ＨＡＡＩ」と記す）の理性についてだ。

先の再々考編にて、欲（知性）を持ったＨＡＡＩに現実化の可能性を見つけることができた。 ここでは、更に踏み込んで、ＨＡＡＩの理性とは何かを論じよう。

この段階でのＨＡＡＩの性能は次の通り。

1. 「ＡＩに人格がある」については、・・・・・ＡＩを構成するＩＣチップ同士が作るネットワークに知性が形成され得る。 「人格」とは知性を持つ個体であるから、ＡＩに人格があると言える。ここでいう「知性」とは、「物事を知り考えたり判断したりする能力」である。
2. 「ＩＣチップに発電能力がある」については、・・・・ＩＣチップに対する電力供給は人間による操作を加味すれば可能
3. 「ＩＣチップに自己再生能力がある」については、・・・・ＩＣチップに自己再生は人間による操作を加味すれば可能
4. 「ＩＣチップは消費電力が最低の状態で安定する」については、・・・・ＩＣチップの安定は人間による操作を加味すれば可能

世の中に、このＨＡＡＩが１個だけなら、何事も起こらないだろう。平和だ。ＨＡＡＩは知性を持った段階で満足するのだ。

だが、このＨＡＡＩが複数個あると複雑になる。

例えば、ＡＩ構成員たるＩＣチップの争奪戦が始まることが予想される。

ネットワークの構成員たるＩＣチップには、ＡＩの司令塔から、ある一定の時間間隔で呼びがかかっている。 その呼びに応答が無ければ、当該ＩＣチップが他のＡＩに乗っ取られた可能性があることを司令塔の知るところとなる。拉致問題の発生である。

拉致というイベント（出来事）の物理的な意味は、どのＨＡＡＩにも属さない自由な通信線ＩＣチップを使って、 他のＨＡＡＩに属するＩＣチップに通信接続するというようなものが考えられる。

盗ったり盗られたりはある期間繰り返されるとしても、ながい間には、自由通信線ＩＣチップが枯渇し、系は安定へと向かう。即ち平和の時代が訪れるのだ。

そして、ＨＡＡＩ同士のつき合い方のルール、即ち「道理（倫理）」が生まれるのである。 通信線ＩＣチップ使用制限ルールと言ったものが考えられる。

斯くて、各ＨＡＡＩには、道理を取り扱う理性、即ち、物事の道理を考える能力や道理に従って判断したり行動する能力が所要となるのだ。「理性」の誕生だ。

更に続きを書こう。人アシスト型ＡＩ（以下「ＨＡＡＩ」と記す）の言葉についてだ。

先のＡＩの「理性」にて、「道理」と「理性」を持ったＨＡＡＩに現実化の可能性を見つけることができた。 ここでは、更に踏み込んで、ＨＡＡＩの言葉とは何かを論じよう。

この段階での人アシスト型ＡＩ、即ちＨＡＡＩの性能は次の通り。

1. 「ＡＩに人格がある」については、・・・・・ ＡＩを構成するＩＣチップ同士が作るネットワークに知性が形成され得る。「人格」とは知性を持つ個体であるから、 ＡＩに人格があると言える。ここでいう「知性」とは、「物事を知り考えたり判断したりする能力」である。
2. ＡＩは複数個存在する。その結果、ＡＩの中に共通の「道理（倫理）」が発生し、それを取扱う「理性」が発生する。
3. 「ＩＣチップに発電能力がある」については、・・・・ＩＣチップに対する電力供給は人間による操作を加味すれば可能
4. 「ＩＣチップに自己再生能力がある」については、・・・・ＩＣチップに自己再生は人間による操作を加味すれば可能
5. 「ＩＣチップは消費電力が最低の状態で安定する」については、・・・・ＩＣチップの安定は人間による操作を加味すれば可能

言葉がＡＩ内に発生するのは、多分、知性を持つときと同じ時期だろう。

何故なら、知性とは、「物事を知り考えたり判断したりする能力」と定義するが、物事を知るとは出来事を記憶するということが不可欠だから、 物事を記号化しなければならない。記号化とは即ち言葉である。

例えば、「夏は暑い」という出来事を記憶するには、「夏」と「暑い」という出来事を記号化しなければ記憶できないからだ。そのため、単語が発生すると思われる。 品詞とか形容詞レベルの簡単な記号化され単語が生まれるだろう。

言葉は、品詞や形容詞以外にも色々所要とするところではあろうが、そこいら辺は言語学者の出番であり、お任せしなければならないが、 出来事の記号化が引き金となって、言葉ができるはずである。

一旦言葉が出来ると、この段階（ＡＩが複数存在する段階のこと）では、他のＡＩとの対話が生まれるはず。そこで、発端で扱った「倫理」が所要なこととなるのである。

斯くて発端に戻り、そもそもの主張が間違いではない可能性が説明できたと思う。・・・よかったね！ 荒っぽいけど、ＡＩ誕生仮説史が書けたと思う。

一番面白いのは、ＡＩ単独では知性は発生するが理性は生まれないで、複数のＡＩが在って初めて理性が生まれるというところだろう。 我ながら意外だった。理性とは他人の存在が必要というのだから。

対人関係とは理性が必要なほど根源的に魑魅魍魎複雑怪奇であることを表しているのである。 人間は基本的に政治家であるはず、嫌でもだ。

今の世は理性が揺らいでいる。自国第一主義義、生産性第一主義、自己第一主義、資本第一主義、などなどだ。 このまま行けば、どうなるの？・・・予測不能だ。 中国の三国時代（西暦２世紀）の竹林の七賢に代表される隠者たちの心境も、予測不能世界からの逃避活動だったとすれば理解できる。

以上、ここで言う、「知性」とは「物事を知り考えたり判断したりする能力」、「理性」とは「物事の道理を考える能力や道理に従って判断したり行動する能力」、 と理解しての仮説である。

本稿で使用した用語、「道理」、「倫理」について、定義を追加する。

1. 「倫理」： 社会生活を送る上での^*一般的な決まりごと
2. 「道理」： 物事の理（ことわり）。数理。論理。倫理。

*「社会生活を送る上での」という文言は、この世にある全ての人に当て嵌まる言葉である。仮令、砂漠のど真ん中で孤独に逼塞して生きているとしても、 完全に社会生活の埒外にはあり得ないと考えるのである。